Hubungan diplomatik Malaysia-Indonesia telah wujud ribuan tahun lalu kerana Malaysia terletak berdekatan dan mempunyai sempadan yang sama. Penduduk Indonesia berhijrah ke Malaysia, Singapura dan Brunei membentuk penduduk utama negara-negara ini. Ada[nyatakan menurut siapa?] yang menyalahkan teori penghijrahan penduduk dari Yunan, China ke selatan dan terdapat theori sebaliknya yang mendakwa bahawa penduduk berhijrah dari selatan ke utara, tetapi tidak dapat menjelaskan dari mana datangnya penduduk, memandangkan bahagian selatan ialah laut. Ada juga pendapat mengatakan bahawa tidak mungkin penghijrahan penduduk bermula dari kawasan kepulauan ke tanah besar lantaran mengikut logik geografi Nusantara, semestinya penghijrah awal tiba ke Tanah Melayu sebelum ke kepulauan Indonesia. Bahasa Melayu dan Bahasa Indonesia daripada rumpun bahasa yang sama iaitu Austronesia. Persamaan ini meliputi budaya, adat-resam, seni bina bangunan, agama dan lain-lain yang hampir sama.